你的 Chrome 里悄悄躺着一个 4GB 的本地大模型

来源：htmlDecode("i 小声读书")

原文链接：https://mp.weixin.qq.com/s/3XetlH-XidwRkhRZQu_xvQ

最近 Chrome 悄悄给你在本地装了一个 4GB Gemini Nano 模型，很多人还不知情。这个模型到底能干啥，我们一起来研究下。🏄

先看看你电脑上到底有没有。打开 Chrome，在地址栏输入 
chrome : //on-device-internals 点击回车，会看如下页面。 这是个隐藏页面，会告诉你本地模型的状态、版本、大小，还能看到有没有就绪。如果 Status 显示 ready，说明你的 Chrome 现在已经是一个能跑本地 LLM 的客户端了。
另一个验证方法，更直接：打开开发者工具控制台（F12 或 Option + Cmd + J），运行：
await   LanguageModel . availability (); 返回 "available" 就说明能用了； 返回 "downloading" 说明正在下； 返回"unavailable" 说明你的硬件没达标或者 flag 没开。
这玩意能干啥，能力边界在哪
Gemini Nano 是个轻量模型，参数量极小，强项是短文本任务。摘要、翻译、改写、分类、提取信息这些都能跑。指望它写代码、做复杂推理就别费劲了，那是 Claude 和 GPT 的活。

按 Chrome 开发者的官方判断，能力的甜区是"输入小于 500 token，输出小于 200 token，错了也无所谓"的场景。但 Chrome 围绕它开放了一整套 Web AI API。

对开发者来说，这意味着可以在网页里写几行 JavaScript 直接调本地 LLM，不用走服务器，不用买 API 额度，不用担心用户隐私。

对普通用户来说，意味着以后你打开的网页和装的扩展，可能正在悄悄用你电脑里的这个模型给你做事。
不写代码也能直接体验
最快的入口是
https : //prompt-api.com 一个 Chrome Prompt API 的网页 playground，直接跟本地 Gemini Nano 对话。除了初次加载页面，整个过程不需要网络。

硬件门槛官方要求：
1️⃣ 系统：Windows 10/11、macOS 13+、Linux、ChromeOS 2️⃣ 显存：4GB 以上 VRAM，或者 16GB 内存加 4 核 CPU 3️⃣ Chrome 版本：138 以上
我用 M4 的 Mac mini 试了下，响应速度比想象中快很多，特别是流式输出几乎是即出即看。短文本任务确实没必要再走云端，本地跑足够了。
中文支持也比早期版本好不少。从 Chrome 149 开始，Gemini Nano 正式支持英语、西班牙语、日语、德语、法语，中文还在路上，但日常对话的中文输出基本能看。
这一步意味着什么
浏览器内置本地 AI 是未来五年的大方向。

隐私。很多人不愿意把工作内容贴给 ChatGPT，但贴给浏览器里跑的本地模型完全没心理负担。模型不联网，输入也不出本机。
成本。开发者最大的 AI 账单就是 LLM API。如果一个功能只需要 Gemini Nano 这种小模型就能完成，调用本地模型直接把这部分账单归零。
延迟。本地推理没有网络往返，响应可以做到几十毫秒级。这对实时输入辅助（自动补全、即时改写）是质的区别。
离线。飞机上、地铁里、信号差的地方，AI 能力照样在。
Apple 在 Apple Intelligence 上走的是同一条路，本地加云端混合。微软 Copilot+ PC 也是这思路。Chrome 这次虽然手法粗暴，但方向上没错。

唯一让我不解的是，为什么塞的是 Gemini Nano 而不是 Gemma 4。Gemma 4 在 4 月已经发布，能力比 Gemini Nano 强不少。同样占 4GB，给个更值的不香吗？
合理的解释是 Gemini Nano 是端侧任务模型，专门为浏览器场景做过优化，功耗和延迟都更低。Gemma 4 虽然能力强，但跑起来更吃资源。Google 选 Nano，是稳妥而非最优解。
如果你不想要它，怎么删
公平起见，给个清理方法。
直接把 OptGuideOnDeviceModel 整个文件夹删掉就行。Chrome 下次启动可能会再下，所以删之前先去 chrome://flags 把以下两个 flag 关掉：
#optimization-guide-on-device-model  → Disabled #prompt-api-for-gemini-nano  → Disabled 也可以在 chrome://settings 里把 AI 相关功能整体关掉。
但我个人建议留着。硬盘里多 4GB 不会让你的电脑卡，少这 4GB 你可能错过未来一年浏览器 AI 生态的演进。等 Chrome 的扩展生态把这套 API 用起来，你会希望本地就有这玩意。

最后补充 😎

Google 这次的做法有问题，未经同意往用户电脑下 4GB 文件，怎么洗都说不过去。但从结果上看，普通用户多了一个免费的本地 AI 能力，开发者多了一套可以白嫖的 LLM API。

技术演进的过程里，总有一些先斩后奏的瞬间。当年 Chrome 推 V8、推 WebAssembly、推 WebGPU 的时候，也有人骂膨胀、骂吃资源。十几年过去回头看，浏览器变成了一个准操作系统级的运行时。现在你的 Chrome 确实更强大了。🙈 
你的硬盘里那个 4GB 已经下了还是没下？打算留着还是删掉？欢迎在评论区聊聊。🤔